Bộ nhạc cụ đơn giản nhất để hát xẩm chỉ gồm đàn nhị và Sênh tiền. Nhóm hát xẩm đông người có thể dùng thêm đàn bầu, trống mảnh và phách bàn. Có tài liệu cho rằng đàn bầu khởi thủy là nhạc cụ đặc trưng của hát xẩm, sau do đàn nhị dễ chơi hơn và có âm lượng tốt hơn (phù hợp với chỗ đông người) nên thường được sử dụng.[4] Để thay cho đàn nhị truyền thống, có thể dùng đàn gáo. Đây là loại đàn được phát triển từ đàn nhị nhưng to và dài hơn, thích hợp khi đệm cho giọng trầm. Sênh dùng đệm nhịp cho hát xẩm có thể là sênh sứa (gồm hai thanh tre hoặc gỗ) hoặc sênh tiền (có gắn thêm những đồng tiền kim loại để tạo âm thanh xúc xắc). Ngoài ra, đàn đáy, trống cơm, sáo và thanh la cũng có thể hiện diện trong hát xẩm.